Recientemente, Xiaohongshu publicó un anuncio sobre los avances en la gestión de cuentas de industria gris, mostrando que la plataforma ha procesado más de 3,2 millones de cuentas infractoras en los últimos tres meses. Esta acción tiene como objetivo frenar a las bandas de industria gris que utilizan IA para generar contenido homogéneo y proteger el ecosistema de la comunidad. El trabajo de gestión de Xiaohongshu comenzó en noviembre del año pasado y se centra en combatir el marketing falso y el cultivo de cuentas de industria gris. Según el anuncio de "Shu Guǎnjiā" de Xiaohongshu, estas bandas de industria gris suelen publicar en masa contenido de vídeo similar para acumular rápidamente seguidores y luego revenderlos.

En el evento Samsung Unpacked recientemente finalizado, Samsung presentó oficialmente su nueva línea de teléfonos Galaxy S25. Un aspecto destacado de este nuevo teléfono es el soporte inicial para el estándar "Content Credentials" (Credenciales de Contenido), diseñado para ayudar a los usuarios a identificar contenido generado por IA y asegurar la autenticidad y procedencia del contenido digital. El estándar Content Credentials está establecido por la Coalición para la procedencia y autenticidad del contenido (C2PA), de la cual Samsung también forma parte. El estándar...

Con el rápido desarrollo de la tecnología de inteligencia artificial, la aplicación de textos, imágenes y videos generados por IA en diversos campos está cada vez más madura. Sin embargo, esto también ha traído consigo una crisis de confianza, y la propagación de información falsa representa una amenaza potencial para la sociedad. Para hacer frente a este desafío, Tencent lanzó recientemente una nueva herramienta de detección de contenido generado por IA, con el objetivo de combatir la IA falsa utilizando la tecnología de IA. Esta herramienta fue desarrollada por el laboratorio Zhuque de Tencent y se divide en dos sistemas: detección de texto generado por IA y detección de imágenes generadas por IA. Tencent indicó oficialmente que...

La aplicación de inteligencia artificial desarrollada por Ideal Auto, Ideal Compañero, ya está disponible en la App Store de Apple y en la tienda de aplicaciones de Xiaomi. La versión iOS ocupa aproximadamente 91 MB, mientras que la versión Android ocupa aproximadamente 81 MB. Esta aplicación, basada en el modelo propio de gran escala de Ideal Auto, ofrece una amplia gama de funciones de interacción inteligente.

Adam Mosseri, responsable de Instagram, ha expresado en las redes sociales que los usuarios deben ser cautelosos con las imágenes que ven en línea, especialmente con el contenido generado por inteligencia artificial que puede confundirse fácilmente con la realidad. Mosseri destaca que la tecnología de IA ha mejorado significativamente su capacidad para crear contenido realista, por lo que los usuarios deben ser críticos, considerar el origen de la información y las plataformas de redes sociales tienen la responsabilidad de ayudar en este aspecto. Escribió: "Como plataformas de internet, tenemos el deber de etiquetar el contenido generado por IA en la medida de lo posible."

A principios de año, existía una gran preocupación sobre cómo la inteligencia artificial generativa podría interferir en las elecciones globales, difundiendo propaganda y desinformación. Sin embargo, un informe reciente de Meta muestra que estas preocupaciones no se han materializado en su plataforma. Meta afirma que el impacto de la inteligencia artificial generativa en la información relacionada con las elecciones en plataformas como Facebook, Instagram y Threads ha sido mínimo. Nota de la imagen: Imagen generada por IA, la imagen fue proporcionada por el servicio de imágenes Midjourney basándose en la investigación de Meta.

Con el avance de la inteligencia artificial, empresas tecnológicas como Google y Meta enfrentan nuevos riesgos legales de difamación al utilizar reseñas o comentarios de usuarios para generar respuestas con IA en sus plataformas. Expertos legales australianos señalan que, generalmente, cuando un usuario publica comentarios difamatorios en Google o Facebook, es el usuario quien asume la responsabilidad legal. Sin embargo, una decisión importante del Tribunal Superior de Australia en el caso de Dylan Waller en 2021, estableció que las plataformas que alojan comentarios difamatorios, como las páginas de redes sociales, también podrían ser responsables.

La tecnología de IA es una herramienta de doble filo, capaz de generar beneficios y riesgos. Para gestionar mejor estos riesgos, el gobernador de California, Gavin Newsom, ha firmado recientemente nueve proyectos de ley que regulan específicamente el contenido generado por IA, especialmente los deepfakes. Nota de la imagen: Imagen generada por IA, servicio de imágenes Midjourney. Entre estas leyes, la SB1047 destaca por exigir a los desarrolladores de IA que adopten medidas de seguridad para reducir...

La Oficina de Internet de China ha publicado recientemente un borrador de medidas para el etiquetado de contenido generado por inteligencia artificial, con el objetivo de regular la identificación de este tipo de contenido, proteger la seguridad nacional y el interés público, y salvaguardar los derechos e intereses legítimos de los ciudadanos, personas jurídicas y otras organizaciones. Estas medidas se basan en leyes y regulaciones como la Ley de Seguridad Cibernética de la República Popular China, las disposiciones sobre la gestión de algoritmos de recomendación de servicios de información en internet, las disposiciones sobre la gestión de la síntesis profunda de servicios de información en internet y las medidas provisionales para la gestión de los servicios de inteligencia artificial generativa. El plazo para enviar comentarios finaliza el 20...

Los gigantes tecnológicos OpenAI, Adobe y Microsoft se han unido para apoyar el proyecto de ley AB3211 de California, que requiere que las empresas tecnológicas marquen el contenido generado por inteligencia artificial (IA). La ley propone añadir marcas de agua a los metadatos de fotos, vídeos y clips de audio generados por IA, y exige a las grandes plataformas online que etiqueten el contenido generado por IA de una manera fácilmente comprensible para el público general. Su objetivo es abordar las preocupaciones sobre la fuente de información y mejorar la comprensión y la confianza del público en la tecnología de IA. A pesar de las anteriores iniciativas de la industria...

Meta y Universal Music Group (UMG) han firmado un acuerdo de colaboración plurianual para ampliar el uso de contenido musical en las aplicaciones sociales de Meta, incluyendo Threads y WhatsApp, y abordar el impacto del contenido generado por IA no autorizado en los artistas. Esta colaboración, que amplía la alianza existente desde 2017, permitirá a los usuarios crear y compartir contenido musical de forma más amplia en estas plataformas. El acuerdo tiene como objetivo abordar los problemas de derechos de autor, proteger a los artistas y permitir que la música vuelva a circular en las plataformas, ofreciendo a los usuarios una experiencia musical enriquecida.

YouTube ha implementado recientemente una nueva política, de forma silenciosa, que permite a los usuarios solicitar la eliminación de contenido generado por inteligencia artificial que imite su rostro o voz. Esta medida responde al rápido crecimiento del contenido generado por IA y su impacto en la plataforma.

Investigadores de la Universidad de Reading en el Reino Unido presentaron en secreto respuestas a exámenes generadas por inteligencia artificial, engañando con éxito a los profesores y obteniendo mejores calificaciones que los estudiantes reales. El proyecto utilizó ChatGPT-4 para generar respuestas sin editar, enviándolas como un estudiante ficticio a evaluaciones en línea de cursos de pregrado.

Con el rápido avance de la inteligencia artificial, los videos generados por IA se están volviendo cada vez más realistas, lo que plantea graves riesgos para la seguridad social. Recientemente, un fraude de 25 millones de dólares utilizó un video realista creado con IA. Para abordar este desafío, un equipo de investigación de la Escuela de Ingeniería de la Universidad de Columbia ha desarrollado una herramienta innovadora llamada DIVID (DIffusion-generated VIdeo Detector) para detectar videos generados por IA.

El programa sin fines de lucro Fair Trained lanza una etiqueta de certificación para garantizar que el contenido generado por IA no infrinja derechos de autor. Fair Trained ha aprobado y emitido una etiqueta de certificación llamada "Modelo con licencia". El uso de datos protegidos por derechos de autor para entrenar modelos ha sido un tema controvertido. La IA generativa ha sido objeto de controversia por el entrenamiento de modelos con datos protegidos por derechos de autor.

Meta exigirá a los anunciantes que revelen si han utilizado contenido generado por inteligencia artificial o modificado digitalmente en los anuncios políticos publicados en su plataforma. Los anunciantes también deberán revelar si han utilizado IA para generar imágenes realistas de personas, audio falso o eventos falsos, y para modificar eventos que ocurrieron. Meta prohibirá la publicación de cualquier anuncio político, electoral o de temas sociales nuevo durante la última semana de las elecciones presidenciales estadounidenses de 2024. Estas políticas responden al auge de los medios sintéticos y a las preocupaciones sobre las deepfakes políticas.

YouTube exige a los creadores que revelen si usaron IA generativa para producir videos, de lo contrario enfrentarán sanciones. Los videos de temas delicados creados con IA necesitarán etiquetas visibles para que los usuarios lo sepan. La plataforma actualizará el proceso de quejas de privacidad, permitiendo solicitar la eliminación de videos generados por IA que simulen personas. Los socios musicales pueden solicitar la eliminación de contenido generado por IA que imite las voces de artistas. YouTube espera equilibrar la innovación en IA con la protección de la responsabilidad comunitaria mediante estas nuevas reglas.

Según las nuevas normas de YouTube, los creadores deben indicar el contenido generado por inteligencia artificial para evitar vídeos falsos, deepfakes y problemas de derechos de autor. Los creadores que no cumplan con las normas podrían enfrentarse a sanciones en sus cuentas y a la eliminación de contenido. YouTube implementará gradualmente nuevas funciones en los próximos meses y en 2024 para apoyar esta nueva política.

Con el auge de la IA generativa, cada vez es más difícil distinguir entre el contenido generado por IA y el creado por humanos. Se debate si las marcas de agua digitales pueden ayudar a la humanidad a recuperar el control del contenido. Las marcas de agua digitales se consideran un método para establecer y mantener la confianza en la era de la IA.

Google publica una nueva política que exige la revisión del contenido generado por IA en las aplicaciones Android. Los usuarios podrán denunciar materiales ofensivos dentro de la aplicación para mantener una buena experiencia de usuario. La política abarca aplicaciones de chatbots de IA, imágenes generadas por IA, etc., pero no incluye aplicaciones de resumen de libros. Google destaca la prevención del contenido falso, el contenido engañoso de las elecciones y otros abusos. Esta medida demuestra que Google está imponiendo regulaciones cada vez más estrictas sobre el contenido generado por IA.